非線形回帰分析 - 08

線形回帰の場合,切片,a2,をシフト,したらどのような計算式になるのか?

 

・切片を変化させたときの残差平方和

\(\Large \displaystyle y_i = a_0 + a_1 x_i \)

a0をシフトさせたときの残差の平方和は,

\(\Large \displaystyle \sum_{i=1}^{n} \left( y_i -\hat{a_0} - a_1 x_i \right)^2 \)

であり,これが最小になる,\(\Large \displaystyle \hat{a_0} \),を計算すればいいので,

 

傾きの値a0を,δ,だけシフトさせて,固定し,その際のa1の推定値をソルバーで推定しました.

a0の標準誤差も加えてあります.

dS,を見ていただけるとわかるように,推定値,Seが一番小さく,左右対称に増加していることがわかります.

グラフ化すると,

のように,二乗+定数できれいに近似できます(xの項があるのはエクセルでべき乗で近似したため...)

ここで,分散値は,

・分散

\(\Large \displaystyle Ve = \frac{1}{n-2} \sum_{i=1}^{n} \left(y_i -\hat{a_0} - \hat{a_1} x_i \right)^2 = \frac{Se}{n-2} = \frac{2.78}{6-2} = 0.695 \)

であり(a0,a1,の二つのパラメータが2つあるので,自由度は,n-2),平均値の議論では,

\(\Large \displaystyle S_{SE} = Se + Ve \)

となり,当てはまりの悪さ,S,がSe + Ve,の場合のδが,標準誤差,SE,となるので,ちょうどa0のシフトが回帰分析で計算した標準誤差,±0.58157,の時に,Se+Ve,となります.

 

さて,実際にパラメータをシフトさせて残差平方和を求め,その結果が”二乗+定数”,となり,平均値の場合と同様の結果でしたが,これは偶然なのでしょうか?

それをきちんと計算してみましょう.しかし,とても面倒なので後回し,ここ,に記載します.

次に,二次曲線について考えていきましょう.

 

l tr